Google казва, че неизправностите на Gemini AI са продукт на усилия за справяне с „капаните“

Гугъл се извини в петък за поредност от обществени злополуки от своя инструмент за изкуствен интелект Gemini, който беше наказан от някои консуматори тази седмица, откакто генерира исторически неточни изображения като небели нацистки бойци.

Компанията сподели в обява в блог, че към момента работи върху корекция за приложението и продължава краткотрайно да блокира основаването на нови изображения на хора, до момента в който не бъде открито решение.

" Ясно е, че тази функционалност е пропуснала задачата ", написа Прабхакар Рагаван, старши вицепрезидент на Гугъл, в обявата в блога.

„ Някои от генерираните изображения са неточни или даже обидни. Благодарни сме за противоположната връзка на потребителите и съжаляваме, че функционалността не работи добре “, написа той.

Gemini е най-вече разговорно AI приложение, което се конкурира с ChatGPT на OpenAI за проучване на опциите на генеративния AI, в това число потребление на текстови подкани за основаване на изображения. Гугъл, под напън от вложители и други, работи върху сходни хрумвания вътрешно от години и пусна своето приложение, в началото наречено Bard, откакто ChatGPT ненадейно набра известност в края на 2022 г. 

Но изображения от Близнаци станаха обект на насмешки в обществените медии, откакто хората разгласиха образци за неисторически изображения. Те включват илюстрации на немски бойци от Втората международна война, които са чернокожи или азиатски, макар расистката идеология на нацистката войска и държавно управление. Приложението също сътвори изображения на небели американски бащи-основатели, когато в реалност всички те бяха бели мъже.

Критиката пристигна изключително от консервативни фигури, които упрекнаха Гугъл, че прегръща политическата уместност. Технически фигури, в това число Илон Мъск, който има конкурентен AI чатбот като част от своето приложение X, акцентираха обособени чиновници на Гугъл за рецензия.

Гугъл призна в сряда, че Gemini предлага грешки и ден по-късно сложи на пауза генерирането на изображения, които включват хора.

Гугъл сподели в петък, че желанието е било да се избегне попадането в „ някои от клопките, които сме виждали в предишното с технологията за генериране на изображения – като да вземем за пример основаване на изображения с принуждение или полово очевиден облик “. Той също по този начин сподели, че Близнаците са ориентирани към международна публика, тъй че разнообразието от изобразени хора е значимо.

Но подканите за съответен вид човек или хора в избран исторически подтекст „ би трябвало да получат отговор, който тъкмо отразява това, което питате “, сподели Гугъл.

„ С течение на времето моделът стана доста по-предпазлив, в сравнение с възнамерявахме, и отхвърли напълно да отговори на избрани подкани – неправилно тълкувайки някои доста анодинни подкани като чувствителни “, сподели компанията.

Гугъл не даде времева линия за връщане на опцията за генериране на изображения на хора и сподели, че процесът на създаване на промяна „ ще включва обширни проби “.